Goldberg dilahirkan sebagai Caryn Elaine Johnson di Bandaraya New York dan dibesarkan di kejiranan Chelsea, Manhattan, anak pada Emma (née Harris), jururawat dan guru, dan Robert James Johnson, Jr., paderi clergyman.[1][2] Goldberg menggambarkan ibunya sebagai "wanita tegas, kuat dan bijaksana" yang membesarkannya sebagai ibu tunggal selepas bapa Goldberg meninggalkan keluarga tersebut.[3] Goldberg's recent ancestors migrated north from Faceville, Georgia, Palatka, Florida, and Virginia.[4] Results of a DNA test, revealed in the 2006 PBS documentary African American Lives, traced part of her ancestry to the Papel and Bayote people of modern-day Guinea-Bissau. Her admixture test indicates that she is 92 percent of sub-Saharan African origin and 8 percent of European origin.[5][6]

nama pentasnya, Whoopi, diambil dari kusyen whoopee; dia telah menyatakan bahawa "Sekiranya anda menjadi kembung, anda perlu melepaskannya. Jadi orang sering berkata padanya, 'Awak seperti kusyen whoopee.' Dan dari situ nama itu datang."[7][8] Dia mengambil nama awal tradisi Jerman/Yahudi Goldberg sebagai nama pentas kerana ibunya merasakan nama awal Johnson tidak cukup "Yahudi" untuk menjadikannya sebagai bintang.[9] Menurut anekdot dikisahkan oleh Nichelle Nichols dalam filem dokumentari filem Trekkies , Goldberg masa kecil melihat Star Trek, dan apabila melihat watak Nichols Uhura, berkata, "Mama! Ada wanita kulit hitam di TV dan dia bukan pembantu rumah!"[10] Ini memulakan minat sepanjang hayat bagi Star Trek untuk Goldberg, yang akhirnya menerima watak sebagai pelawat berulang dalam Star Trek: The Next Generation.

Antara tahun 1979 dan 1981, dia tinggal di Jerman Timur Komunis, bekerja dalam beberapa pengeluaran pementasan. Semasa pengembaraannya, dia akan menyeludup pelbagai barangan ke dalam negara tersebut bagi rakan artis yang tinggal bersamanya.[11]